LLM智能体长期记忆的推荐系统设计
🧭 Agent长期记忆 · slate推荐级联 ★ 深度解读
Fudan University
把Agent记忆选择形式化为预算约束下的slate推荐，零LLM调用匹配64次重排且服务成本降3.2倍
📌 工作参考价值（4 点）
- 把记忆/上下文选择形式化为预算slate推荐：召回+学习排序+固定预算填充，可迁移到电商Agent客服、导购的多轮历史筛选，或搜索广告的query上下文优选；比动态截断更稳。
- 零LLM调用链路可落地：BM25+dense embedding双通道召回，RRF融合top128，LightGBM LambdaRank用10个轻量特征（相似度、排名、位置、长度、共享key等）排序，再按token预算贪心填充，写时无LLM成本，适合高QPS生产环境。
- 用stage factorization定位瓶颈：Acc = ai + (ac-ai)*r_pool*r_rank，先看候选池覆盖率，再看排序是否把证据放进budget；这能避免盲目换模型，直接发现是召回还是排序导致证据丢失。
- 固定预算填充优于per-query cutoff：当reward沿排序不下降时，任何cutoff都包含于fill，所以Adaptive-k类动态截断只会降低覆盖率；若存在低质量文档的负外部性，才需要set-level模型，否则别用动态截断。
XViewRank：基于重叠条件的 LLM 增强稀疏检索分数融合
🧭 查询扩展与多视图检索排序融合
School of Computer Science and Technology, Soochow University
提出轻量检索端方法，将 BM25 分数与查询级重叠作为上下文，用小型非线性 scorer 条件融合多查询视图结果
📌 工作参考价值（4 点）
- 电商搜索可参考 LLM 生成 hypothesis / step-back 等多视角 query，配合 BM25 多路召回，避免词汇不匹配；无需重建索引，工程成本低。
- 融合时不要只依赖固定权重的 RRF：可加 query-level overlap 特征（如各路 top-k 结果重合度）和归一化分数据，训练小型非线性 scorer 做条件融合；特征少、可解释性强，容易在线打分。
- 收益主要在视图排名一致性低时出现，可设计动态触发策略：先计算 overlap 或一致性指标，只对低一致性的 query 走融合模型/更复杂的改写，控制延迟与成本。
- 注意论文在 DL20 证据较弱，收益具有数据集敏感性；业务迁移前应做在线 A/B，验证是否比固定融合、单独 LLM 扩展稳定提升。
H2CE：异构两阶段交叉编码器建模地理语义交互用于 POI 重排
🧭 异构特征融合 · 两阶段 POI 重排 ★ 深度解读
Amazon · University of Trento
提出 H2CE 异构两阶段交叉编码器，融合 bucketized 数值描述与精确标量 MLP，用 pointwise+pairwise 重排 POI，NDCG@5 达 67.48%
📌 工作参考价值（4 点）
- 在电商/本地生活精排中，对价格、销量、评分、距离等强数值特征，可采用「bucketized text descriptor + 精确标量 MLP」双通道，并把数值 MLP embedding 与 cross-encoder [CLS] 做 latent concat；比 late weighted sum 更能学到 query 条件化交互。
- 两阶段 pointwise→pairwise top-K 架构适合实时重排：Stage1 用经济模型粗排，Stage2 只对 top 10~20 做 pair 比较，复杂度 O(N+K²)；训练 pair 时只从 Stage1 top-K 采样，避免训练/推理分布不一致。
- 压延迟可用 half-matrix：只评 unordered pairs，再用概率互补 Mji=1-Mij 重建另一半，比较次数减半、延迟降约 26%，精度几乎不伤。
- 零样本 LLM 重排不适合大规模候选和实时链路；本文 RankGPT 质量明显低于 fine-tuned cross-encoder，且贵得多，更适合离线标数据或小规模 judge。
平衡试新与复购：按需配送场景的混合序列Transformer-GBDT排序器
🧭 排序模型 · 序列推荐 · 混合架构
Wolt (DoorDash, Inc.)
生产级统一排序器UVR结合双向Transformer序列编码与GBDT，通过标签平滑和试新偏置采样提升商家试新率
📌 工作参考价值（4 点）
- 混合架构值得借鉴：用双向 Transformer encoder 学习用户序列并输出 embedding，作为特征输入 GBDT ranker，兼顾序列建模能力与 GBDT 对表格特征、业务规则（局部配送约束）的处理便利性，适合需要快速迭代和可解释性的工业排序场景。
- 试新/复购权衡的调参 trick：通过 trial-biased sample weighting（提高试新样本权重）和 label smoothing 引导模型推荐新商家，同时离线监控 reorder MRR 的退化，在线用融合指标 Global CVR 兜底，可在电商新品冷启动或类目探索中复用。
- 跨域统一排序模型：将餐厅和零售四个独立模型合并为一个 UVR，共享用户序列表示，不仅提升试新率还简化 serving stack，减少多模型维护成本，适合多业务线推荐系统整合。
- 离线/在线指标拆分：离线分别评估 trial MRR 和 reorder MRR，发现试新提升伴随复购下降，但在线核心指标稳定；建议业务中定义融合指标并分层监控，避免单一离线指标误导。
基于曝光的强化学习排序方法
🧭 强化学习排序 · 曝光分布估计 ★ 深度解读
University of Amsterdam · Google DeepMind
通过曝光分布抽象与基线校正，实现能自动微分的RL排序，显著提升收敛速度与稳定性
📌 工作参考价值（4 点）
- 曝光分布抽象：可将任意曝光驱动的损失（DCG、公平性、蒸馏）统一写成关于曝光向量的可微函数，然后利用曝光估计器自动获得梯度，适合电商推荐中多目标优化。
- 实现即插即用：曝光估计器已集成进JAX/RAX，只需实现exposure()函数，后续损失函数不超过三行代码，大幅降低RL排序的工程门槛。
- 基线校正选择：曝光估计器的基线是文档期望曝光，实验证明它比基于效用或位置轨迹的基线更有效，在少量采样（N≥5）时已显著优于其他方法，适合实时在线学习场景。
- 边际化降低方差：对每个位置枚举所有文档的放置概率，利用GPU矩阵运算高效实现，比纯采样估计收敛更快且更稳定，可借鉴到其他大规模动作空间的RL任务。
多智能体交互记忆：群体级轨迹共享与检索
🧭 多智能体轨迹共享与学习排序检索 ★ 深度解读
Carnegie Mellon University · University of California, Berkeley
提出MATM框架，使智能体共享交互轨迹以提升任务效果与效率，无需协同训练
📌 工作参考价值（4 点）
- 1. Agent 经验复用范式：在电商导购、对话式推荐等交互场景，大规模部署 Agent 后，可将成功轨迹（如商品搜索导航、多轮对话决策链）存储在共享记忆库，新实例直接检索复用，避免重复探索，降低推理成本与延迟，类似“群体缓存”。
- 2. 状态条件检索设计：借鉴 key‑value 索引方案——用最近 k 步交互历史作 query，检索后续操作片段作为 context，适合需要动态感知当前页面/对话状态的推荐 Agent，比仅凭任务描述检索更精准。
- 3. 学习排序个性化轨迹选择：引入 lightweight LTR 重排序，融合生产者可信度（如模型能力分）、消费者标识、轨迹统计特征，实现“信任建模”与“消费者差异化”，能直接迁移到多 Agent 协作的生成式推荐系统，根据下游转化率等业务指标训练重排序模型。
- 4. 增量记忆构建 + 边际效用标签：通过分支回滚和边际效用评估自动生成训练数据，无需人工标注，可在上线后持续扩充记忆库且同时优化检索效果，对需要长期进化的推词、素材生成类 Agent 极具实操价值。
基于LLM的分层偏好排序重新思考销售线索评分
🧭 销售漏斗转化预测 · 学习排序 · 偏好优化 ★ 深度解读
Li Auto Inc.
将稀疏转化标签转化为漏斗层级偏好对，结合LLM语义理解与边际感知Bradley-Terry目标，实现线索的精确排序与校准
📌 工作参考价值（4 点）
- 漏斗层级偏好对构建：借鉴将用户行为序列转化为偏好对（如加购>浏览>点击）的思路，在电商推荐中可利用用户行为深度构造软标签，配合边际参数表达业务知识（如高意向行为给予更大margin），缓解长周期转化中正负样本粗糙的问题。
- 三头LLM判别式架构：语义头（防止遗忘）、点估计头（校准）、排序头（相对序）的联合设计可迁移到Agent多任务场景：在LLM基础上挂接多个预测头，用不同的损失函数同时优化生成、校准和排序能力，配合差异化学习率避免过拟合。
- LLM+LoRA提取文本表示注入传统模型：将LLM编码的对话嵌入注入Wide&Deep、DeepFM等CTR模型，可无痛提升传统模型对非结构化文本的理解，适合已有CTR基建的团队快速引入LLM语义能力，无需推翻原有架构。
- 在线实验设计与评估：分层抽样+按能力层级与历史转化指标分组的A/B测试方案，以及关注前0.1%线索精准度的业务导向指标（P@0.1%），对推荐系统线上评估中如何衡量头部排序质量有直接参考意义。